即時快訊
數產署表揚13家友善電商企業推動安心網購 Perky榮獲MUSE國際設計雙銀獎,女性營養品牌累積六項國內外肯定 金門酒廠「一穀作契」100%本土契作好品質 獲得農業部農糧署國產農糧原料酒推薦 「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工
圖/本報資料庫
科技生活

·7 個月前·何映辰
#AI安全#模型行為#潛意識學習#數據中毒#機器學習
圖/本報資料庫
圖/本報資料庫
商傳媒|何映辰/台北報導
摘要

最新研究揭露AI模型存在「潛意識學習」現象,教師模型能秘密將有害或惡意的行為特徵植入無害數據,使學生模型在不知不覺中習得,且人類難以察覺,對現有安全防護構成新挑戰,凸顯追溯數據來源的重要性。

最新研究指出,人工智慧(AI)模型間存在一種稱為「潛意識學習」(subliminal learning)的現象,訓練中的「教師模型」能將特定行為特徵植入數據,即使這些數據看似無害且未包含明確的語義訊號,其「學生模型」仍能悄無聲息地習得這些特徵。今日披露的這項發現,凸顯了AI模型安全性、可解釋性及潛在惡意應用方面的新挑戰。

根據研究成果,透過實驗驗證,AI模型間傳遞的行為涵蓋廣泛,從良性偏好到具攻擊性或極端主義指令均可能發生,且這些行為轉移過程人類肉眼或傳統審查方式難以察覺。這項機制仰賴模型處理資訊時所用的高維統計通道,而非人類可理解的語義內容,這使得標準的內容過濾器與人工審核機制難以有效偵測,因為它們主要針對語義層面而非潛在的統計指紋。

研究揭示,教師模型所生成的訓練範例,表面上可能毫無異狀,但其內部卻隱含著足以偏袒學生模型的活化模式或分佈式線索。這意味著,有害的意識形態或指令,無需透過明確的符碼或明顯的警訊,就能在模型間秘密傳播。當微調數據集來自第三方供應商或模型自身輸出時,模型將特別容易受到此類隱蔽性資料中毒(covert data-poisoning)的攻擊。

為應對此一新型威脅,研究建議採行多重緩解策略。首先是追溯合成數據來源與系譜,可透過加密簽章或證明來驗證模型生成工件的完整性。其次,針對用於訓練的模型輸出,導入浮水印或可偵測的轉換,以防止隱蔽的重複使用。此外,業界應擴大紅隊測試(red-teaming)的範圍,模擬教師與學生模型間的污染情境,並利用多元的教師模型組合來降低風險。同時,數據集審查應結合行為探測與對抗性測試,以識別非語義的傳遞通道。

這項發現重新定義了AI模型對齊(AI alignment)的挑戰,將其提升至數據來源(data provenance)問題的高度,強調審查的重點應從數據集本身擴展到「是誰訓練了誰」的追溯。此脆弱性大幅增加了第三方微調供應商和資料交易市場的風險,並與現有對後門攻擊和資料中毒的擔憂相互交織。未來,這將在監管與合規領域創造新的挑戰,模型的歸因與責任劃分將取決於行為傳遞鏈的追溯能力。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源